Khoảng 96% diện tích đất dai của vườn quốc gia Yellowstone nằm trong tiểu bang Wyoming. Khoảng 3% thuộc lãnh thổ bang Montana và khoảng 1% còn lại thuộc bang Idaho. Vườn quốc gia này dài khoảng 102 km (63 dặm Anh) theo chiều bắc-nam và 87 km (54 dặm Anh) theo chiều đông-tây. Với diện tích 898.317 ha (2.219.789 mẫu Anh), Yellowstone lớn hơn cả cả hai bang là đảo Rhode và Delaware cộng lại. Sông và hồ chiếm 5% diện tích đất, với khu vực chứa nước lớn nhất là hồ Yellowstone có diện tích 35.220 ha (87.040 mẫu Anh). Hồ Yellowstone sâu tới 122 m (400 ft) và có 177 km (110 dặm Anh) đường bờ hồ. Nằm ở cao độ 2.357 m (7.733 ft) trên mực nước biển, hồ Yellowstone là hồ nằm ở độ cao lớn nhất tại Bắc Mỹ. Rừng chiếm 80% diện tích đất đai của vườn, phần lớn diện tích còn lại là đồng cỏ[1]

Đường phân chia lục địa của Bắc Mỹ chạy chéo qua phần tây nam của vườn. Đường phân chia này là một đặc trưng địa hình chia tách các lưu vực chia nước của Thái Bình Dương và Đại Tây Dương. Khoảng một phần ba vườn nằm ở phía tây của đường phân chia này. Nơi phát sinh của các sông Yellowstone và sông Snake là gần nhau nhưng trên hai mặt đối diện nhau của đường phân chia này. Kết quả là nước của sông Snake chảy tới Thái Bình Dương trong khi nước của sông Yellowstone lại chảy tới Đại Tây Dương thông qua vịnh Mexico.

Vườn nằm trên cao nguyên Yellowstone, với độ cao trung bình là 2.400 m (8.000 ft) trên mực nước biển. Cao nguyên này có ranh giới ở gần như mọi mặt là các dãy núi của dãy núi Trung Rocky, với độ cao từ 2.743 tới 3.352 m (9.000-11.000 ft). Điểm cao nhất trong vườn là đỉnh Eagle cao 3.462 m (11.358 ft) và điểm thấp nhất là dọc theo lạch Reese (1.610 m hay 5.282 ft)[1]. Các dãy núi cận kề như dãy núi Gallatin ở phía tây bắc, dãy núi Beartooth ở phía bắc, dãy núi Absaroka ở phía đông và dãy núi Teton cùng dãy núi Madison ở phía tây nam và tây. Đỉnh núi nổi bật nhất trên cao nguyên Yellowstone là đỉnh Washburn cao 3.122 m (10.243 ft).

Vườn quốc gia Yellowstone có một trong những rừng hóa đá lớn nhất trên thế giới, với các cây gỗ bị vùi lấp từ rất lâu bởi tro bụi và đất, bị chuyển hóa từ gỗ thành các vật liệu khoáng hóa. Tại đây có 290 thác nước cao ít nhất 4,5 m (15 ft), với thác nước cao nhất là thác hạ lưu sông Yellowstone cao 94 m (308 ft)[1].

Hai hẻm núi sâu nằm trong vườn quốc gia, cắt ngang qua đá túp núi lửa của cao nguyên Yellowstone bằng các con sông ít nhất là trên 640.000 năm. Sông Lewis chảy qua hẻm núi Lewis ở phía nam còn sông Yellowstone chảy qua Grand Canyon của Yellowstone trong hành trình của nó ở phía bắc.